Pada 3 Disember 1960, Korolev mengalami serangan jantung pertamanya. Semasa penyembuhannya, juga diketahui bahawa dia menderita gangguan buah pinggang, suatu keadaan yang disebabkan oleh penahanannya di kamp-kamp penjara Soviet. Dia diberi amaran oleh doktor bahawa jika dia terus bekerja sekeras yang dia miliki, dia tidak akan hidup lama. Korolev menjadi yakin bahawa Khrushchev hanya berminat dengan program ruang angkasa untuk nilai propaganda dan takut bahawa dia akan membatalkannya sepenuhnya jika Soviet mula kehilangan kepemimpinan mereka ke Amerika Syarikat, jadi dia terus mendorong dirinya sendiri.

Menjelang 1962, masalah kesihatan Korolev mulai berkumpul dan dia menderita banyak penyakit. Dia mengalami pendarahan usus yang menyebabkan dia dibawa ke hospital dengan ambulans. Pada 1964 doktor mendiagnosisnya dengan aritmia jantung. Pada bulan Februari dia menghabiskan sepuluh hari di hospital setelah mengalami masalah jantung. Tidak lama selepas dia menderita radang pundi hempedu. Tekanan yang semakin meningkat dari beban kerjanya juga membuat korban berat, dan dia mengalami banyak keletihan. Korolev juga mengalami gangguan pendengaran, mungkin dari pendedahan berulang kali terhadap ujian mesin roket yang kuat.

Keadaan sebenar kematian Korolev tetap tidak dapat dipastikan. Pada bulan Disember 1965, dia dijangka didiagnosis dengan polip berdarah di usus besarnya. Dia memasuki hospital pada 5 Januari 1966 untuk pembedahan yang agak rutin, tetapi meninggal sembilan hari kemudian. Telah dinyatakan oleh pemerintah bahwa dia memiliki tumor barah yang besar di perutnya, tetapi Glushko kemudian melaporkan bahwa dia sebenarnya meninggal dunia akibat operasi yang tidak baik untuk buasir. Versi lain menyatakan bahawa operasi berjalan lancar dan tidak ada yang meramalkan adanya komplikasi. Tiba-tiba, semasa operasi, Korolev mula berdarah. Doktor cuba memberikan intubasi untuk membolehkannya bernafas dengan bebas, tetapi rahangnya, yang cedera semasa dia di Gulag, tidak sembuh dengan betul dan menghalang pemasangan saluran pernafasan. Korolev mati tanpa sedar. Menurut Harford, keluarga Korolev mengesahkan kisah barah itu. Jantungnya yang lemah menyumbang kepada kematiannya semasa pembedahan.

Di bawah kebijakan yang dimulakan oleh Stalin dan diteruskan oleh penggantinya, identiti Korolev tidak didedahkan sampai setelah kematiannya. Sebab yang dinyatakan adalah melindunginya dari ejen asing dari Amerika Syarikat. Akibatnya, orang-orang Soviet tidak menyedari pencapaiannya sehingga setelah kematiannya. Berita kematiannya diterbitkan di akhbar Pravda pada 16 Januari 1966, menunjukkan gambar Korolev dengan semua pingatnya. Abu Korolev dipuji dengan penghormatan negara di Tembok Kremlin.

Korolev sering dibandingkan dengan Wernher von Braun sebagai arkitek terkemuka Space Race. Seperti von Braun, Korolev harus terus bersaing dengan saingan, seperti Vladimir Chelomei, yang memiliki rancangan mereka sendiri untuk penerbangan ke Bulan. Tidak seperti orang Amerika, dia juga harus bekerja dengan teknologi yang dalam banyak aspek kurang maju daripada apa yang ada di Amerika Syarikat, terutama dalam elektronik dan komputer, dan untuk mengatasi tekanan politik yang melampau.

Pengganti Korolev dalam program angkasa Soviet adalah Vasily Mishin, seorang jurutera yang cukup kompeten yang pernah bertugas sebagai wakil dan orang kanannya. Setelah Korolev meninggal, Mishin menjadi Ketua Perancang, dan dia mewarisi program roket N1 yang cacat. Pada tahun 1972, Mishin dipecat dan kemudian digantikan oleh saingannya, Valentin Glushko, setelah keempat-empat pelancaran ujian N-1 gagal. Pada masa itu, saingan Amerika telah sampai ke Bulan, dan program itu dibatalkan oleh Setiausaha Umum CPSU Leonid Brezhnev.